Súng được nhà sáng chế Súng tự động lừng danh Fedor Tokarev thiết kế lần đầu tiên vào năm 1929, dự kiến thay thế cho súng ngắn tiền nhiệm Nagant M1895. Phiên bản chế thử cuối cùng được gọi là TT-30 đã vượt qua cuộc thử nghiệm quốc gia ngày 23 tháng 12 năm 1930 sau khi đã khắc phục một số nhược điểm. Ngày 12 tháng 2 năm 1931, lô súng dùng thử đầu tiên gồm 1.000 khẩu được xuất xưởng và trang bị cho các cấp chỉ huy Liên Xô thử nghiệm đại trà. Năm 1933, cải tiến cuối cùng được thực hiện là việc dùng cơ cấu cò đẩy thay cho cơ cấu cò quay. Năm 1934, phiên bản TT-33 được Ủy ban Quốc phòng Nhà nước chấp nhận đưa vào sản xuất hàng loạt và trang bị cho Hồng Quân. Súng được sản xuất và sử dụng với số lượng lớn trong Chiến tranh thế giới thứ hai đến những năm 1950. Việc sản xuất ở Liên Xô dừng lại năm 1954 khi nó còn chưa kịp thay thế hết khẩu tiền nhiệm Nagant M1895. Khẩu Makarov ra đời năm 1951 đã thay khẩu TT-33 trong trang bị tiêu chuẩn cho sĩ quan chỉ huy Liên Xô.[cần dẫn nguồn]

Tuy vậy, ở nước ngoài, súng tiếp tục được sản xuất với số lượng lớn, kể cả sao chép hợp pháp và không. Trung Quốc có Type-51, Type-54, Hungary có khẩu M20, Tiệp Khắc có khẩu M-48, Ba Lan có khẩu TU-90, Nam Tư có các khẩu M57 và M70A. CHDCND Triều Tiên có Type-68 đều là các phiên bản hoặc sao chép nguyên dạng khẩu TT-33. Các phiên bản xuất khẩu cho Ai-Cập Tokagypt-58 dùng đạn có vỏ 9mm Parabellum. Hầu hết các nước xã hội chủ nghĩa đều đã sản xuất K-54 với số lượng lớn nhưng đến năm 1965, K-54 dần dần được thay bởi kiểu K-59 Makarov. Ở Việt Nam, việc sản xuất K-54 cũng chấm dứt vào năm 1990.[cần dẫn nguồn]

Hiện nay, chỉ còn Công ty Công nghiệp Hoa Bắc Trung Quốc vẫn sản xuất các phiên bản của súng TT-33 nhưng dùng đạn 9×19mm Parabellum, có tên mới là "Tokarev Kiểu 213". Súng có nhiều cải tiến ưu việt so với các phiên bản ban đầu. Các đường xẻ hẹp, súng mỏng, không cần tăng kích thước tay cầm để dùng đạn 9mm.[cần dẫn nguồn]